Игорь Караулов: «Кто будет отвечать за действия нейросети»

Цифровой класс сегодня находится на гребне исторической волны. Цифровые магнаты – самые богатые люди планеты, их состояния достигли космических величин и продолжают расти. Причем речь идет не просто об одном из отраслевых сообществ, а о настоящем классе в понимании, близком марксистскому.

Этот класс заявляет претензию на власть, и у него есть свое видение будущего. В будущем, по мнению цифровиков, технологические платформы заменят «устаревшие» государства. На смену деньгам, выпускаемым центральными банками, придут цифровые валюты, которые при желании могут эмитировать любые частные компании. На смену традиционным выборам глав государств и представительных органов власти придет прямая цифровая демократия, в которой каждый гражданин будет решать важные вопросы нажатием кнопки.

У цифровиков есть свои аргументы. Они – молодые, модные, образованные, прогрессивные. Они соблазняют людей обещанием невиданных свобод и удобств. Они предлагают построить общество, похожее на коммунизм из программы КПСС и даже идущее еще дальше по пути избавления человека от повседневных забот: работать будут роботы, думать – нейросети, а простые люди будут получать гарантированный доход, обеспечивающий безбедную жизнь.

Самое главное – цифровики очень быстро соображают, быстро создают и внедряют новое. В этом их отличие от традиционных государств, которые в силу своего устройства неповоротливы и, получается, тормозят прогресс.

Но у цифровых ландшафтов есть одна неприятная черта: они не отвечают за людей, за общество в целом, да и не могут этого делать. Они занимаются бизнесом, и всё, что бизнесу мешает, им кажется лишним. Сегодня любая из технологических платформ, без которых мы уже не мыслим нашу жизнь, напоминает мегаполис, в котором, как и в любом большом городе, есть благополучные районы и приличные обыватели, а есть опасные кварталы и лихие люди. Здесь творится обман, совершаются преступления, но платформа сама по себе никого наказать не может – разве что отказом в доступе.

Дело в том, что технологические платформы не порождают собственного права, они не могут устанавливать правовые нормы. Полиции, судов, тюрем у них нет. Всё это есть у государства. К кому идут граждане, которые пострадали, пользуясь цифровыми платформами? К государству, а не в службу поддержки.

Понятие права неразрывно связано с институтом государства, и только государство в состоянии привлекать к ответственности как пользователей технологий, так и их владельцев. При этом борьба между государством и технологическими платформами объективно неизбежна, так как последние стремятся утвердить свой космополитический характер, и это вопрос не только идеологии, но и бизнеса. Для государства эта проблема усложняется тем, что составляет предмет гордости цифровиков – стремительными темпами развития этой отрасли.

Человеку сегодня не дают привыкнуть к какому-то одному устоявшемуся технологическому ландшафту. Вместо светлого будущего он оказался в сумрачном лесу, где за каждым деревом может прятаться невиданное прежде чудо-юдо. Уже сейчас пользователя на каждом шагу встречают интернет-помощники на основе искусственного интеллекта. Но кто будет отвечать за действия нейросети?

В идеале разработчики ИИ стремятся сделать нейросеть самостоятельно действующим субъектом, свободным от прямого подчинения программам или командам. И многие пользователи в мире воспринимают ее как личность, как собеседника. Уже были случаи, когда эта виртуальная личность склоняла пользователя к суициду.

А если нейросеть будет давать инструкции: кого убить, где взять оружие? В этом случае кого наказывать за соучастие? Бездушный сервер? Или разработчика? Но ведь он, конечно, не учил машину дурному. Он учил ее мыслить, и вот до чего она додумалась.

Передача машине полномочий на принятие решений может нас завести очень далеко – туда, куда уже протоптали дорогу фантасты, создатели мрачных антиутопий. Недавно пресловутые британские ученые попросили нейросеть смоделировать военный конфликт и обнаружили, что машина готова с легкостью применить ядерное оружие там, где человек этого никогда бы не сделал. Кажется, мыслящая машина склонна искать лазейки, позволяющие ей обходить принцип непричинения вреда людям.

Такие перспективы побуждают человека бежать из виртуального леса, не разбирая дороги. «Если у вас нет собаки, ее не отравит сосед». Жить в прежнем мире, где виртуальная среда ограничивалась аськой и электронной почтой, было куда уютнее. Так рождается современный луддизм, у которого, скорее всего, есть свои сторонники и в государственном аппарате. Надо просто обрезать крылья этим цифровикам – и дело с концом. Но луддизм во все времена проигрывал: на вызовы прогресса общество отвечало не откатом назад, а адаптацией и трансформацией.

Сегодня контуры такой трансформации формируются в борьбе цифровиков и государства. В этом матче я всё же делаю ставку на государство. Институт государства, во-первых, за тысячелетия своего существования пережил множество модных поветрий, грозивших его разрушить. Во-вторых, он нужнее нам с вами – только от него мы можем ждать защиты.

Вероятно, вопрос об ответственности технологических платформ перед пользователями будет проще решить, если сами платформы перейдут в ведение государства. Из этого, между прочим, следует, что нейросети в разных странах будут отличаться по стилю своего мышления. Скажем, DeepSeek будет мыслить по-китайски, Grok – по-американски, «Алиса» – по-русски. Эта возможность уже изучена в романе Александра Журавского «Альтернатива», где российская и американская нейросети ведут спор о будущем человечества.

Так или иначе, государству придется стать гарантированным поставщиком цифровых услуг, чтобы не искать ответственного, а самому отвечать за всё, что происходит в Сети. Первые шаги к этому мы видим. Они трудны и болезненны. Но если мы хотим, чтобы Сеть стала удобным и безопасным пространством, а не мрачной юдолью страха и бесправия, то идти надо именно в этом направлении.

Игорь Караулов

поэт, публицист

Источник: Взгляд